Ключевое изменение в байесовском подходе заключается в онтологическом статусе неизвестного параметра $\theta$. В отличие от частотной статистики, которая рассматривает $\theta$ как фиксированную, но неизвестную константу, байесовский подход рассматривает $\theta$ как случайную переменную. Это позволяет нам количественно оценивать неопределённость с помощью априорной вероятностной меры $\Pi$.
Построение байесовской модели
Полная байесовская модель определяется парой $(\{f_{\theta} : \theta \in \Omega\}, \Pi)$. Байесовский вывод — это не просто «применение теоремы Байеса», а сознательное добавление априорного распределения вероятностей к модели выборки в качестве важного компонента для вывода.
Общее состояние нашего знания описывается совместным распределением $\pi(\theta) f_{\theta}(s)$. Эта функция связывает наблюдаемые данные $s$ и неизвестный параметр $\theta$ в единую согласованную вероятностную модель.
Прямые вероятностные утверждения
В рамках этой парадигмы параметр $\theta$ определяется плотностью вероятности $\pi(\theta)$. Это позволяет делать прямые вероятностные утверждения о параметре, например, $P(\theta \in A)$. В частотной парадигме это логически невозможно, поскольку $\theta$ не имеет распределения, и такие утверждения не определены.
Практическая аналогия: Медицинская диагностика
При диагностике редкого заболевания «константой» является наличие болезни у пациента. В байесовской парадигме мы рассматриваем состояние здоровья $(\theta)$ как случайную переменную. Если распространенность составляет 0,1 % (априорная вероятность), а тест (модель $f_{\theta}$) показывает положительный результат, мы не ограничиваемся только точностью теста — мы анализируем совместную вероятность наличия болезни И положительного результата теста, чтобы определить новую вероятность заболевания.